Tharman memulakan perjalanan profesionalnya di Penguasa Kewangan Singapura (MAS), di mana beliau memegang jawatan sebagai ketua ekonomi. Kemudian, beliau bertukar ke Perkhidmatan Pentadbiran Singapura dan memegang jawatan sebagai Timbalan Setiausaha Kanan Dasar di Kementerian Pendidikan. Berikutan itu, beliau kembali ke MAS dan akhirnya menjawat jawatan pengarah urusan. Bagi mengiktiraf sumbangannya, beliau telah dianugerahkan dengan Pingat Pentadbiran Awam (Emas) pada tahun 1999.

Kerjaya Tharman bertukar kepada politik apabila beliau meletak jawatan sebagai pengarah urusan MAS untuk menyertai pilihan raya umum tahun 2001 sebagai calon Parti Tindakan Rakyat (PAP).

Kes Akta Rahsia Rasmi

Catatan menarik dari masa lalu Tharman ialah penglibatannya dalam kes Akta Rahsia Rasmi (OSA) pada tahun 1992. Semasa berkhidmat sebagai pengarah Jabatan Ekonomi di MAS, beliau ialah salah seorang daripada lima individu yang didakwa dalam kes berkaitan penerbitan unjuran pertumbuhan KDNK kilat suku kedua Singapura 1992 dalam akhbar Business Times. Tharman akhirnya bertanding dan dibebaskan daripada tuduhan menyampaikan unjuran kilat pertumbuhan KDNK. Bagaimanapun, beliau menghadapi pertuduhan yang lebih ringan kerana kecuaian di mana beliau membela diri di mahkamah. Tharman dan individu lain yang terlibat dalam kes itu disabitkan kesalahan, dengan Tharman menerima denda S$1,500. Memandangkan tiada penemuan bahawa beliau telah menyampaikan sebarang maklumat sulit, insiden ini tidak menghalang pelantikannya sebagai pengarah urusan MAS atau tanggungjawab negaranya yang lebih luas.